Thị xã Phước Long trước năm 1956 là một phần của quận Bà Rá, nguyên thuộc tỉnh Biên Hòa xưa kia.

Ngày 22 tháng 10 năm 1956, chính quyền Sài Gòn (Việt Nam Cộng hòa) chia tỉnh Biên Hòa chia thành 3 tỉnh: Biên Hòa, Long Khánh, Phước Long (có thêm phần đất của tỉnh Thủ Dầu Một). Thị xã Phước Long khi đó có tên là "Phước Bình", là tỉnh lỵ tỉnh Phước Long, về mặt hành chính thuộc xã Sơn Giang, quận Phước Bình.

Sau ngày đất nước thống nhất, trào lưu hợp nhất các tỉnh diễn ra khắp cả nước, thị xã Phước Bình bị giải thể, xã Sơn Giang đóng vai trò huyện lỵ của huyện Phước Long, tỉnh Sông Bé trong giai đoạn 1975-1994.

Ngày 19 tháng 8 năm 1994, xã Sơn Giang được chia thành 2 đơn vị hành chính là thị trấn Thác Mơ và xã Sơn Giang; xã Phước Bình cũng chia làm 2 đơn vị hành chính là thị trấn Phước Bình và xã Bình Phước (từ năm 2007, xã Bình Phước được tách thành 2 xã Bình Sơn và Bình Tân, sau thuộc huyện Bù Gia Mập và đến năm 2015 chuyển sang thuộc huyện Phú Riềng). Các thị trấn Phước Bình và Thác Mơ chính là tiền thân của thị xã Phước Long ngày nay.

Ngày 11 tháng 8 năm 2009, Chính phủ ban hành Nghị quyết số 35/NQ-CP về việc thành lập thị xã Phước Long và các phường thuộc thị xã Phước Long[4]. Theo đó:

• Thành lập thị xã Phước Long trên cơ sở toàn bộ diện tích và dân số của 2 thị trấn: Thác Mơ, Phước Bình và 3 xã: Sơn Giang, Long Giang, Phước Tín; 540,17 ha diện tích tự nhiên và 3.803 người của xã Bình Sơn; 423,67 ha diện tích tự nhiên và 2.542 người của xã Bình Tân thuộc huyện Phước Long.
• Thành lập phường Long Thủy trên cơ sở 397,04 ha diện tích tự nhiên và 6.954 người của thị trấn Thác Mơ.
• Thành lập phường Thác Mơ trên cơ sở 2.046,82 ha diện tích tự nhiên và 7.167 người còn lại của thị trấn Thác Mơ.
• Thành lập phường Sơn Giang trên cơ sở toàn bộ 1.650.43 ha diện tích tự nhiên và 4.376 người của xã Sơn Giang.
• Thành lập phường Phước Bình trên cơ sở 1.295,66 ha diện tích tự nhiên và 8.414 người của thị trấn Phước Bình.
• Thành lập phường Long Phước trên cơ sở 255,57 ha diện tích tự nhiên và 6.081 người còn lại của thị trấn Phước Bình; 540,17 ha diện tích tự nhiên và 3.803 người của xã Bình Sơn; 423,67 ha diện tích tự nhiên và 2.542 người của xã Bình Tân.

Sau khi thành lập, thị xã Phước Long có 11.883,93 ha diện tích tự nhiên và 50.019 người với 7 đơn vị hành chính trực thuộc, gồm 5 phường và 2 xã.

Trung tâm hành chính thị xã ban đầu đặt tại phường Long Thủy, đến năm 2017 được dời ra khu trung tâm hành chính và đô thị mới đặt tại phường Long Phước.